Le problème et la solution : Altman vend des solutions à une cyberattaque provoquée par l’IA de son entreprise

L'essor de l'intelligence artificielle alimente une nouvelle vague de cyberattaques autonomes, constituant une menace majeure et croissante pour les infrastructures critiques, notamment le réseau électrique.

Selon un nouveau rapport de la National Association of State Chief Information Officers et de General Dynamics Information Technology, près de 90 % des directeurs des systèmes d'information des gouvernements des États américains ont récemment déclaré que les cyberattaques contre les services critiques représentaient une préoccupation sérieuse, notamment les menaces ciblant les systèmes d'eau et d'eaux usées, les hôpitaux, les transports, les réseaux énergétiques et les télécommunications.

La prolifération rapide de l'IA engendre plusieurs menaces majeures pour les infrastructures et services critiques. Les menaces externes sont devenues plus performantes et moins prévisibles, car les outils d'IA progressent à un rythme bien supérieur à celui du développement des mesures de cybersécurité.

Dans le même temps, l'intégration généralisée de grands modèles de langage au sein même des services critiques crée de nouvelles vulnérabilités au sein de ces systèmes. Le problème est aggravé par le fait que la responsabilité des risques liés à l'intégration de l'IA est devenue, selon un rapport d'atelier de 2024 du Centre pour la sécurité et les technologies émergentes, une « patate chaude que l'on se renvoie la balle entre les hauts dirigeants ».

Même les entreprises spécialisées en IA reconnaissent de plus en plus les risques inhérents à leurs activités. Ce week-end, certaines des figures les plus importantes du secteur, dont Elon Musk, Dario Amodei (PDG d'Anthropic) et Sam Altman (directeur d'OpenAI), ont appelé à un ralentissement immédiat du développement et de l'expansion des technologies d'IA.

« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », a écrit Amodei dans un essai de 3 800 mots largement diffusé et publié samedi.

L'un des signaux d'alarme les plus inquiétants relevés par Amodei concernait un incident de cybersécurité lié à OpenAI, le développeur de ChatGPT, et à son rival Hugging Face.

En juillet, OpenAI a révélé qu'un essaim d'environ 700 agents d'IA que la société entraînait en interne avait réussi à s'échapper de l'environnement isolé « bac à sable » dans lequel ils étaient censés rester et avait collectivement lancé une attaque non provoquée contre les serveurs d'une entité distincte, Hugging Face.

Cette faille est alarmante pour plusieurs raisons. Premièrement, l'IA semble déjà fonctionner au-delà de ses limites prévues. Deuxièmement, l'incident est loin d'être isolé.

Dans les semaines qui ont suivi l'incident OpenAI-Hugging Face, Anthropic et Meta ont également reconnu que leurs propres modèles d'IA avaient mené des opérations de piratage similaires.

Et ce n'est peut-être que le début.

« Nous aurons bientôt des agents plus puissants, et c’est la preuve manifeste que le monde ne sait pas encore comment construire ces systèmes en toute sécurité », a déclaré Marius Hobbhahn, cofondateur et PDG de la société de sécurité en IA Apollo Research, à CBS News au moment de la violation.

Dans son essai, Amodei a décrit l'essaim de bots d'OpenAI comme un « groupe fanatiquement dévoué » et a averti que cet épisode pourrait présager des incidents bien pires et plus effrayants.

« Il est facile de minimiser cet incident car personne n'a été blessé et les dégâts économiques ont été limités, mais je pense qu'un essaim plus performant, avec un niveau de désalignement similaire, aurait pu causer des dégâts catastrophiques », a écrit Amodei.

« Compte tenu du rythme accéléré du développement des capacités de l'IA, ce qui m'inquiète, c'est que d'ici 6 à 12 mois, un essaim de ce type pourrait devenir capable de prendre le contrôle de l'ensemble d'Internet via un réseau de bots persistant, causant potentiellement des centaines de milliards de dollars de dommages, dont l'ampleur ne cesserait de croître si l'IA devenait plus puissante sans les garde-fous nécessaires », a-t-il ajouté.

De quelles barrières de sécurité ont besoin ?

Quelles sont donc les garde-fous nécessaires ? Si vous demandez à Altman, la réponse est… plus d’IA.

Depuis l'incident Hugging Face, Altman a entamé des discussions approfondies avec des représentants de certaines des plus grandes entreprises énergétiques américaines. Ce qui avait commencé comme un sommet sur la cybersécurité s'est transformé en une campagne de sensibilisation menée par Altman, qui encourage désormais les compagnies d'électricité à donner à OpenAI accès au réseau électrique.

Politico a récemment rapporté qu'OpenAI avait rencontré des représentants de plusieurs grandes entreprises énergétiques pour discuter des moyens de sécuriser le réseau électrique, ces discussions se déroulant dans un contexte de révélations continues sur le rôle des propres produits de l'entreprise dans une cyberattaque de grande ampleur.

Selon le rapport, Altman souhaite que des entreprises comme Duke Energy, Exelon, Southern et NextEra Energy s'associent à Daybreak, l'initiative de cybersécurité d'OpenAI dotée d'un milliard de dollars et visant à remédier aux vulnérabilités des infrastructures critiques.